Cho dù được thể hiện khá đơn giản với chỉ một mình Paul McCartney cùng chiếc guitar acoustic Epiphone Texan[25], phần bè nền được kéo bởi dàn tứ tấu dây[26], "Yesterday" lại có thể được chia ra làm 2 đoạn, tách biệt rõ ràng về giai điệu cũng như nhịp[27].

Đoạn thứ nhất ("Yesterday, all my troubles seemed so far away...") được bắt đầu với hợp âm Fa trưởng (nốt thứ 3 trong hợp âm không được đánh), rồi chuyển sang Em7[gc 2], A7 rồi Rê thứ[28]. Theo trình tự này, các hợp âm chủ đạo thực tế là để nguỵ trang: nhà nghiên cứu âm nhạc Alan W. Pollack cho rằng hợp âm chủ đạo (Fa trưởng) thực tế được viết để "dẫn tới hợp âm bè Rê thứ"[28]. Ông cũng nhấn mạnh rằng cách viết này có thể được bắt gặp thường xuyên ở bộ đôi Lennon-McCartney, như kiểu một "món quà tới muộn"[28].

Đoạn thứ hai ("Why she had to go I don't know..."), theo Pollack, không có nhiều ngạc nhiên ở phần lý thuyết nhạc bằng phần âm thanh mà nó tạo ra. Được bắt đầu ở Em7, phần hòa âm được chuyển liên tục từ La trưởng, Rê thứ, rồi sau đó B♭ trước khi trở lại với Fa trưởng. Lúc đó, McCartney giữ nốt Fa để dàn dây tiếp tục kéo về tới hợp âm chủ đạo để quay lại hát tiếp đoạn thứ nhất, rồi sau đó là đoạn hát mím môi kết thúc ca khúc[28].

Pollack miêu tả phần sáng tác "thực sự tạo cảm hứng", và coi đây là ví dụ về "tài năng (của Lennon và McCartney) trong việc tạo nên những nguyên tắc đầy phong cách"[28]. Đặc biệt, ông đề cao "đoạn khác biệt rất mỉa mai giữa thứ giai điệu ẻo lả được chơi bởi dàn tứ tấu với thứ giản dị, rất tự nhiên mà chính dàn dây đã chơi ở đoạn giữa ca khúc"[28].

Hợp âm chủ đạo của ca khúc là Fa trưởng (thực tế, kể khi McCartney chỉnh đàn của mình xuống 1 cung, người ta có thể thấy anh chơi ca khúc này ở hợp âm Sol) – hợp âm mở đầu trước khi chuyển tới hợp âm Rê thứ. Giọng thứ được lựa chọn trong đoạn chuyển hợp âm ii-V7 này (Em và A7 được sử dụng), giúp ca khúc có một cấu trúc rất vững chắc. A7 cũng có thể được coi là giọng thứ chính trong hợp âm V/vi. Hợp âm G7 trong đoạn chuyển cũng được coi là giọng thứ chính (hợp âm V/V), tuy nhiên thay vì chọn nó là hợp âm kết thúc, giống như từ A7 xuống Dm trong đoạn vào, McCartney lại chọn hợp âm IV: đó là B♭. Chuỗi chuyển hợp âm C–B–B♭–A đã cấu thành nên câu hát chính của ca khúc.

Dàn dây đã làm góp phần tăng thêm nỗi buồn của ca khúc, đặc biệt là phần cello kéo ở 2 đoạn chính giữa của đoạn chuyển với nốt "blues" thứ 7 ở đoạn sau (nốt E♭ được chơi sau câu hát "I don't know / she wouldn't say") cùng với chuỗi đi xuống của các hợp âm được kéo bởi viola từ đoạn chuyển trở về đoạn vào cũng như đoạn hát mím môi của McCartney ở lần thứ 2 (cũng là lần kết thúc bài hát)[29][28]. Phần kéo của viola và đoạn hòa âm ở hợp âm La trong đoạn vào cuối cùng là 2 đoạn nhỏ duy nhất của dàn dây được viết bởi McCartney chứ không phải George Martin.[30]

Khi ca khúc này được trình diễn tại The Ed Sullivan Show, nó vẫn được chơi ở giọng Fa trưởng, song McCartney là Beatle duy nhất xuất hiện trên sân khấu, còn dàn nhạc của chương trình chơi phần bè dàn dây. Tuy nhiên, khi ban nhạc trình diễn ở Tokyo vào năm 1966, họ lại chơi ca khúc này ở giọng Sol trưởng. Khi McCartney tham gia chương trình The Howard Stern Show, anh đã nói rằng anh đã viết tất cả phần lời của "Yesterday" ở mặt sau một chiếc phong bì. Sau đó, McCartney cũng từng trình diễn bản gốc "Scrambled Eggs" với phần lời khác cùng với Jimmy Fallon và ban nhạc The Roots tại chương trình Late Night with Jimmy Fallon.[31]

Điểm tương đồng với các ca khúc khác

Vào năm 2001, Ian Hammond cho rằng McCartney đã viết "Yesterday" dựa theo ca khúc nổi tiếng của Ray Charles, "Georgia on My Mind", song cuối cùng Hammond vẫn cho rằng "Yesterday" là "một sản phẩm hoàn toàn cá nhân"[12].

Tháng 7 năm 2003, nhiều nhà nghiên cứu âm nhạc ở Anh đã phát hiện thấy điểm tương đồng giữa ca khúc này với ca khúc của Nat King Cole, "Answer Me, My Love" (thực tế bản gốc là ca khúc tiếng Đức "Mütterlein" của Gerhard Winkler và Fred Rauch) và cho rằng McCartney đã bị ảnh hưởng lớn bởi ca khúc trên. Tuy nhiên người đại diện của McCartney đã phủ nhận những quy kết này[32]. Trong "Yesterday", câu mở đầu là "Yesterday, all my troubles seemed so far away. Now it looks as though they're here to stay" còn đoạn thứ hai của "Answer Me, My Love" có câu hát "You were mine yesterday. I believed that love was here to stay. Won't you tell me where I've gone astray".